Affective Music Recommendation: A Rollout-Based World Model for Offline Preference Optimization
情感音乐推荐：基于 rollout 世界模型的离线偏好优化
🧭 世界模型 · 离线偏好优化 · 情感计算 ★ 深度解读
LUCID Inc. · Mila — Québec AI Institute
用因果 Transformer 世界模型联合预测行为与情感反馈，并通过 DPO 优化策略，在伦理约束下实现情感导向的音乐推荐。
📌 工作参考价值（4 点）
- 世界模型作为离线模拟器与安全闸门：当在线实验受伦理或合规限制时（如电商中的高风险推荐、医疗健康推荐），可训练一个因果 Transformer 预测用户多维反馈（点击、评分、情感），完全在模拟器中训练和压力测试策略，上线前用对抗历史探测策略鲁棒性。
- DPO + 行为克隆做受控探索：用行为克隆初始化策略，再通过 DPO 微调，KL 散度惩罚项可约束策略偏离已验证的基准，适合在已有生产策略基础上渐进优化，避免灾难性遗忘。偏好对可基于“负反馈纠正采样”构造，即针对历史负反馈样本搜索高效用替代，形成有监督改进信号。
- 因子化 Transformer 架构便于并行打分：世界模型采用因子化设计，先对用户历史编码得到表示向量，再与候选物品 embedding 拼接后通过轻量 MLP 预测反馈，可实现一次历史编码、批量候选评分的并行化，大幅降低实时推理成本，适合库存量大的电商场景。
- 多目标效用函数融合异质反馈：将点击、评分、情感等多维信号加权合成为标量效用，且权重可配置，方便根据业务阶段动态调整优化目标（如先提转化再控多样性），同时监控覆盖率、熵、Gini 等多样性指标防止策略坍缩。